Natural Language Query to Configuration for Retrieval Agents
自然语言查询到检索智能体配置的动态选择
🧭 检索智能体配置优化 ★ 深度解读
UC Berkeley · University of Washington · Microsoft Azure Research - Systems
提出 BRANE：用 LLM 提取查询特性并训练 per‑configuration 预测器，在推理时按准确率目标选择管道配置，大幅节省成本
📌 工作参考价值（5 点）
- 动态配置替代固定管道：电商搜索、客服问答等场景可对每个查询动态选择检索策略、LLM、文档数等，用 BRANE 的成本‑质量帕累托曲线在满足准确率目标时降低成本。
- LLM 生成的 workload‑specific 二值特征：比通用嵌入更能捕捉查询细粒度差异（如 FinanceBench 领域），可直接用作路由器的输入，节省特征工程成本。
- 轻量 per‑configuration 预测器：使用 tabular 模型（如 LightGBM）在小样本（几百条）下效果优于端到端微调 BERT 或 Qwen‑4B，适合需要快速冷启动的垂直领域。
- 模糊帕累托剪枝：在配置空间大时，只保留接近帕累托前沿的配置训练预测器，大幅减少训练和推理开销，适合多检索器、多 LLM 的商业系统。
- 无损重标定：上线后只需调整 λ 即可在准确率和成本之间切换，无需重新训练，适合随时切换预算模式（如大促期间优先准确，日常优先成本）。